Tenho um servidor 8.60 com 40 players online começa a travar o que posso fazer para melhora?

Meu Vps Tem 1G de Ram e 100 MB/s de Internet Windows .

Computador:

Mais memoria ram (recomendo 4 gb).

Processador melhor (recomendo core i7).

Sistema operacional (recomendo linux, mais leve e estável).

Internet:

Upload conta mais que download.

Verifique se sua conexão é estável (não fica caindo direto ou reconectando).

Latência dos dados (o maldito lag [ping]).

Tudo  que o @Poccnn disse, além de claro, te lembrar que VPS é compartilhado com outros usuários, logo é difícil a velocidade de conexão ser 100mb real.

Um servidor bem localizado fisicamente também influência na latência dos jogadores.

Mas fora isso, quanto maior o mapa, memória é o que mais influencia no desempenho no caso de freezes e travamentos.

Só um breve comentário, o numero de núcleos do processador a partir de 3 não faz diferença pra otserv, porque ele só usa 3 threads (dispatcher, scheduler, e asio), entao foca mais no clock individual do que o numero de cores, porque a nao ser que va rodar mais de um server esses nucleos extras ficarão ociosos. A máquina depende muito de quantos players tu espera suportar, e qual tamanho do mapa. Alem disso scripts mal feitos e codigos errados podem também causar lag, como por exemplo o uso demasiado de creature scripts onThing. Um projeto de grande porte usaria pelo menos duas máquinas, uma pra db e outra para os servers (ate uns 3 ainda e de boa), memoria tu expande a medida que necessite, é relativamente barato. E nao hospede site na mesma maquina do servidor, isso e um grande erro pois um ataque ao site travaria o server.